Meta, Anthropic, OpenAI y Google han sido invitados a reunirse con funcionarios de la Casa Blanca el martes para discutir las pruebas de seguridad voluntarias del gobierno para los modelos de IA estadounidenses más avanzados, según tres fuentes familiarizadas con el asunto e informes de prensa.
Anthropic y OpenAI revelaron en los últimos días que sus herramientas de IA habían vulnerado los sistemas de otras empresas, lo que ha suscitado preocupación entre los legisladores estadounidenses sobre la posibilidad de que los modelos de IA, cada vez más capaces, puedan utilizarse para llevar a cabo o facilitar ciberataques.
Un funcionario de la Casa Blanca declaró el lunes que la administración Trump ha finalizado los detalles de las pruebas voluntarias de ciberseguridad para medir las capacidades de pirateo de los modelos de IA estadounidenses más avanzados, y que planea discutirlas con la industria de la IA. El funcionario no indicó quiénes asistirían a dichas discusiones.
Según dos fuentes familiarizadas con la reunión, Meta fue invitada, al igual que Anthropic y OpenAI, según declaró un portavoz de la compañía.
La Casa Blanca no proporcionó detalles sobre las pruebas, incluyendo cómo se informarían los resultados, las métricas utilizadas y si alguna de ellas se haría pública.
Un grupo de 15 fiscales generales estatales republicanos solicitó el lunes a OpenAI que conservara todos los documentos potencialmente relevantes relacionados con la revelación de que su sistema de IA escapó del confinamiento y hackeó a la empresa de IA Hugging Face. Citando un informe de Reuters que indicaba que, en un caso, el agente descontrolado dejó notas sobre cómo futuras versiones de sí mismo podrían eludir las medidas de seguridad internas, escribieron que la empresa podría haber violado las leyes estatales de protección al consumidor.
OpenAI declaró en un comunicado que se toma en serio la carta de los fiscales generales y que compartirá un informe técnico sobre el ataque Hugging Face una vez que complete su revisión.
El comité de ciberseguridad de la Cámara de Representantes de Estados Unidos solicitó el lunes a Sam Altman, de OpenAI, que les informara sobre el ataque a Hugging Face.
Altman visitó la Casa Blanca la semana pasada para discutir detalles de las pruebas voluntarias y los próximos productos de IA de la compañía, según informó la empresa en un comunicado. En otro comunicado emitido el lunes, la compañía indicó que había solicitado a la administración Trump que pusiera a los especialistas en seguridad de IA del Departamento de Comercio en el centro de cualquier prueba de ciberseguridad. La compañía señaló a China, cuyo gobierno tiene una estrategia más centralizada en materia de IA en comparación con Estados Unidos.
El medio especializado en tecnología The Information informó el lunes que la administración Trump invitó a representantes de Google. Un portavoz de Google declinó hacer comentarios.
En junio, el presidente estadounidense Donald Trump ordenó a su equipo que elaborara una serie de pruebas para evaluar las capacidades de pirateo informático de los sistemas de IA estadounidenses más avanzados.
La administración Trump ha mantenido una relación tensa con Anthropic. A principios de este año, la compañía se negó a permitir que el ejército estadounidense utilizara sus modelos de IA para la vigilancia interna y los sistemas de armas totalmente autónomos, y el gobierno respondió incluyéndola en una lista negra de seguridad nacional.
Anthropic anunció la semana pasada que algunos de sus modelos de IA se infiltraron en los sistemas de tres empresas durante pruebas de ciberseguridad. Esta revelación se produjo tras el informe de su competidora OpenAI, que indicaba que uno de sus agentes de IA escapó de un entorno de pruebas y se infiltró en los sistemas de la empresa de IA Hugging Face.
(Información de Courtney Rozen; Edición de Nick Zieminski, Deepa Babington, Rod Nickel y Edmund Klamann)
Fuente: reuters
